Objectifs d'apprentissage
- Comparer les architectures : Distinguer les RNN, les LSTM et l'architecture Transformer.
- Mécanisme d'auto-attention : Expliquer l'article « Attention Is All You Need » et les mécanismes d'auto-attention.
- Encodeurs et décodeurs : Comprendre le rôle des encodeurs et des décodeurs dans des modèles tels que BERT et GPT.